Tư Mã Xí là con trai thứ 25 của Tấn Vũ đế Tư Mã Viêm, vị vua đầu tiên của nhà Tấn, em trai của Tấn Huệ đế, vị vua thứ hai của nhà Tấn. Mẹ ông là Tài nhân Vương Viện Cơ. Ông chào đời năm 284.

Năm Thái Hi nguyên niên (290) thời vua cha, Tư Mã Xí được phong là Dự Chương quận vương. Cùng năm đó Vũ đế qua đời, anh ông là Huệ đế Tư Mã Trung lên nối ngôi. Tấn thư đánh giá Tư Mã Xí là người thích du ngoạn, không thích tham gia chính sự và cũng không có tài năng gì nổi bật. Từ khi loạn bát vương bùng nổ, các chư hầu vương chia bè kết cánh tranh quyền lẫn nhau, song Tư Mã Xí cũng không tham gia.

Tuy nhiên cuối cùng, Tư Mã Xí cũng không tránh khỏi ảnh hưởng của loạn bát vương. Năm 301, sau khi diệt trừ Tư Mã Luân và phục ngôi, Tấn Huệ đế phong cho Tư Mã Xí làm Xạ Thanh Giáo úy. Đến năm Vĩnh Ninh thứ 3 (304), ông được phong làm Trấn bắc đại tương quân, Đô đốc Nghiệp thành.

Tháng 12 năm 304, Tư Mã Ngung cầm quyền chính trong triều do có mâu thuẫn với Thái đệ Tư Mã Dĩnh, bèn lấy chiếu của Tấn Huệ đế truất ngôi của Dĩnh, phong Tư Mã Xí làm Hoàng Thái đệ.

Sau cùng, năm 306, Đông Hải vương Tư Mã Việt giành được Tấn Huệ đế, đưa về Lạc Dương và trở thành người chiến thắng trong loạn bát vương, trở thành người nắm chính trường. Tháng 12 năm đó, Tư Mã Việt đầu độc Tấn Huệ đế. Dương Hoàng hậu nghe tin hoàng đế băng hà, sợ khi Thái đệ lên ngôi sẽ không được làm Thái hậu, bèn phong cho con Huệ đế, thái tử cũ là Thanh Hà vương Tư Mã Đàm làm Thượng thư các, định lập làm vua. Thị trung Hoa Hỗn biết được, bèn triệu ông vào cung đưa lên ngôi, tức Tấn Hoài đế. Hoài đế đổi niên hiệu là Vĩnh Gia, tôn Dương Hoàng hậu làm Huệ hoàng hậu, và mẹ là Vương thị làm Hoàng Thái hậu, lập vợ là Lương phi làm Hoàng hậu. Năm đó ông được 23 tuổi.